PACERec：基于协同证据的 LLM 物品嵌入渐进自适应用于推荐
🧭 LLM 表征适应 · 长尾序列推荐 ★ 深度解读
Northeastern University · Ant Group
用 flow matching 学共享速度场，将静态 LLM 物品嵌入渐进适配前序行为目标，实现无 ID 长尾序列推荐
📌 工作参考价值（4 点）
- 电商冷启动 / 长尾 item 可直接复用无 ID 思路：用 frozen LLM embedding 对商品标题/描述编码，经两层 MLP 降维到推荐主模型维度，PCA 初始化投影层保留语义几何；新商品只要有过文本属性就能拿到有效表示，避免长尾 ID embedding 欠训。
- 离线构造行为目标成本低且有效：对每个 item，取训练序列中它前面 L 步内的前驱 item 初始语义向量，按 recency 指数加权平均 + norm matching + clip，生成固定的 behavior target；这相当于给每个 item 一个“用户接下来会买什么”的监督信号，可以离线一次算好，训练时直接当 flow matching 的 target。
- 只对频繁 item 监督、共享速度场推断长尾：设置频次阈值 κ，只让 c_i≥κ 的 item 参与 flow matching，loss 用 sqrt(c_i/(c_i+c0)) 做 confidence weighting；学到的 velocity field 以 item semantic source 为条件，长尾甚至零交互 item 也能直接过 flow 得到行为适应表示。工程上可离线缓存全量 adapted embeddings 供后续双塔/序列模型使用。
- 排序层加参数无关语义相似度旁路：在 frozen LLM 空间对用户最近 history 加权池化得到 semantic query，与候选 item cosine 相似度做 per-user z-score 标准化，再和 preference score 加权融合。这个旁路对 tail 指标提升明显，权重用 validation 上固定值选择即可，不需要可学习参数，部署简单。
Cola2：连续语义压缩与平衡离散生成的协同自适应层次语言建模
🧭 层次语言建模 · 连续压缩离散扩散生成
The University of Hong Kong · ByteDance Seed · Peking University · Renmin University of China
提出Cola2，通过连续语义压缩、离散重建-生成平衡与连续-离散协同适应，346B tokens训练8任务平均60.10超越Llama-3-8B部分任务
📌 工作参考价值（4 点）
- 对生成式推荐/Semantic ID：将物品语义压缩为连续 latent，再离散生成语义 ID；负反馈控制压缩率可省去辅助 loss 调参，适合对商品描述或用户行为序列做自适应语义摘要，减少 token 预算。
- 对搜索/广告文案生成：block-causal masked diffusion 解码器在 clean/noisy/dropped latent 条件下训练，能提高对 query/商品属性缺失或噪声输入的鲁棒性；Classifier-free guidance 可显式调节文案对约束的重建忠诚度和自主创意之间的平衡。
- 对 Agent 多轮交互：推理时 re-encode under fixed span layout 保持隐历史与实际文本一致，可缓解多轮生成中 latent history 漂移；stop-gradient 分离 Flow Matching 先验与表示学习，适合多任务/多阶段训练，避免先验目标干扰主任务表示。
- 对工程实现：continuous latent 压缩+离散解码可减少长序列 token 数，提升长文本/长行为序列建模效率；训练用 clean/noisy/dropped latent 条件成本低，可作为增强 decoder 鲁棒性的通用 trick。
PathFM：多元轨迹的快速生成式预测模型
🧭 生成式时间序列预测 · Flow Matching
California Institute of Technology · Amazon
PathFM 用 flow matching 生成完整多元轨迹，通过蒸馏与共享 KV cache 实现近单次查询速度，并取得最优路径分数
📌 工作参考价值（4 点）
- 需求/流量预测：电商大促、广告库存等场景需要累积需求、峰值、到达时间等轨迹级指标，用 flow matching 替代纯分位数模型可同时保留多步依赖与不确定性，适合 downstream 优化。
- 工程加速：多轨迹采样通过蒸馏到 1-2 步 + 共享 history attention cache 显著降低在线推理成本；类似思路可迁移到生成式推荐或 Agent 场景中需要对同一上下文做多次采样的模块。
- 校准损失直接优化：蒸馏后采样器支持端到端校准目标，比事后校准更稳定；在电商不确定预测（如缺货概率、风险控制）中可借鉴。
- 评估指标：引入 energy score / variogram score 评估路径依赖，比单纯 CRPS 更能反映序列依赖结构，可用于多步推荐收益预测、广告投放轨迹评估。
多模态流：嵌入空间中语言与视觉的统一流建模
🧭 多模态统一连续生成 · Flow Matching
Huazhong University of Science and Technology · Beijing Jiaotong University · Horizon Robotics
提出全连续多模态生成模型，用流匹配在连续嵌入空间统一语言和视觉，避免离散量化瓶颈
📌 工作参考价值（4 点）
- 连续 embedding 流建模可以替代离散 token，用于商品多模态统一表征，减少视觉量化损失；在生成式推荐中可尝试用连续流匹配生成 item embedding 或 Semantic ID 的替代表示。
- chunk-causal 骨干同时保留文本顺序和图像空间结构，适合电商商品标题、详情图等混合模态的联合建模；训练时并行预测多 target chunks，推理顺序生成 hyperchunks，可加速序列化商品描述生成。
- 共享联合注意力 + 模态特定 FFN 的架构，可作为商品图文融合模块：不同模态保持专门前馈处理，同时通过注意力做跨模态交互，比简单拼接更灵活。
- 在小数据预算下持续预训练仍能提升多模态能力，说明该连续建模范式的数据效率较高，对业务中数据量有限的场景有参考价值。
SPRINT：基于平均概率速度的单步生成式推荐
🧭 生成式推荐 · Semantic ID · 单步生成 ★ 深度解读
University of Technology Sydney · New York University Abu Dhabi · University of California, San Diego
把 Semantic ID 生成建模为平均概率速度，单次前向输出完整 SID，并用双层级流对比保持 token 连贯性
📌 工作参考价值（4 点）
- 如果做 SID 生成式召回/排序，优先尝试 OPQ 而非 RQ-VAE/RQ-Kmeans：OPQ 的并行独立子空间更适合一次性预测全部 token；本文消融显示换 RQ 会明显掉点，可作为架构选型依据。
- 在单步并行解码 SID 时，单纯 per-token CE/contrastive 不够，必须加 SID 级整体打分：把 decoder 的 L 个位置隐状态 concat 后 MLP 成 user 侧表示，与 item SID embedding 做 cosine 对比，能显著抑制“每个 token 合理但组合非法”的问题；item 侧 SID embedding 可离线预计算，线上只多一次矩阵乘。
- 线上推理保持 all-mask 输入、trie 约束解码，分数 = token 概率 log-sum + SID 级相似度，单次 forward 即可出 topK；相比 masked diffusion 可拿到 8-10×加速，适合对 latency 敏感的电商推荐候选生成。
- 训练时把 source time 以较大概率锚定在 all-mask（ρ=0.75~1），并采样约 100 个 negative SID 做对比，可在不大幅增加训练成本下同时提升收敛速度和精度。
X-Rec 技术报告：基于流匹配的连续嵌入生成式召回
🧭 生成式推荐 · 连续嵌入 Flow Matching ★ 深度解读
ByteDance · TikTok
用 Riemannian Flow Matching 在连续 item embedding 空间直接建模推荐分布，兼得 SID-AR 表达力与 3.46 倍推理吞吐
📌 工作参考价值（1 点）
- 借鉴连续嵌入生成式召回替代 SID-AR：如果你的 item 已有归一化 embedding（如双塔/对比学习），可以直接用 Flow Matching 在连续空间建模 p(x|c)，避免量化误差和自回归解码，吞吐提升 3.46×，召回与 SID-AR 持平。\n- Anchor Conditioning 实现粗到细生成与多样性控制：先预测目标 item 的粗粒度簇 anchor，再基于 anchor 生成 fine embedding；该设计在 TikTok 上提升 Recall@20 2.05pp，且通过调节 anchor 采样温度可直接控制召回多样性，电商场景可对应类目/品牌/价格带等粗粒度约束。\n- Late-Interaction DiT 大幅提升推理效率：只在最后一层 Transformer 做 velocity 估计，复用前缀 KV cache，1 层相比 14 层仅掉 1.05pp 召回，但吞吐提升 8.28×；适合对 QPS 敏感的在线召回系统。\n- 两阶段训练：先序列预训练，再检索事件 SFT：用因果 attention mask 和前缀 mask 并行计算多步损失；预训练带来 5.27pp 召回提升，建议落地时先在大规模用户序列上预训练，再在具体业务场景 SFT。
高维潜在表征的可扩散性分析
🧭 扩散模型latent几何与参数化选择
Cornell University · Adobe · Virginia Tech · University of Washington · University of Maryland
发现微调重构编码器会降低latent有效维度并使velocity prediction低效，改用x0-prediction可一致提升text-to-image生成
📌 工作参考价值（4 点）
- 生成式推荐/搜索中若使用latent diffusion在商品或用户表征上做生成，若编码器经过重构微调，应优先采用x0-prediction而非velocity prediction，可避开拟合流形外噪声方向，提升生成稳定性和收敛效率。
- 设计item/user表征autoencoder时，不要只看重构质量；重构微调可能降低有效维度、改变几何结构，需监控latent的intrinsic dimension与流形紧致度，避免下游扩散模型被迫学习大量无效方向。
- 工程实现上，flow matching的velocity目标在高维稀疏latent上常包含大量流形外分量，可在训练时快速对比x0-prediction与velocity prediction的收敛曲线，低成本验证该trick对业务生成任务的收益。
- 对使用CLIP等多模态embedding做文案/图片生成的场景，若对编码器做过重构微调，务必检查其latent几何变化，x0-prediction可能是更稳健的参数化选项。
用循环流思考
🧭 循环神经网络与概率流推理
EPFL · KAIST · University of Amsterdam · Carnegie Mellon University · TU Wien
提出循环流模型，用局部去噪目标训练循环网络，推理时积分概率流实现计算扩展，在ARC-AGI等基准上超越先前的循环模型
📌 工作参考价值（4 点）
- 循环生成模型训练中，若梯度只截断少数步（如在线生成式推荐的多步解码），可借鉴局部去噪目标：每一步只做当前噪声水平的去噪，不要求整个循环链端到端可微，缓解早期步骤无法支持后续步骤的问题。
- 推理时通过更细的时间网格积分概率流，用更多计算换取更好预测，适合对延迟敏感的业务按负载动态调整解码步数，实现在线算力弹性伸缩。
- 从不同初始噪声采样可获得多个有效预测，可用于生成式推荐中产出多样化候选 item，后续用排序模型筛选或做多样性打散，兼顾覆盖与准确。
- 循环状态与流状态解耦（先运行去噪器更新循环状态，再执行 ODE/SDE 步），工程上易于模块化，可分别优化状态传递逻辑和数值积分器。
面向微视频推荐的谱分解偏好流匹配框架
🧭 多模态微视频推荐 · Flow Matching ★ 深度解读
National University of Defense Technology · National University of Singapore · Zhengzhou University
用频谱分解将帧级视频表示解耦为静态与动态因子，并以条件流匹配建模偏好转移
📌 工作参考价值（4 点）
- 视频/短视频推荐中，不要只对帧级特征做整体平均池化；可借鉴 SSF 把帧序列经 rFFT 后在频域用可学习软掩码分离静态语义与动态因子，避免两类信号互相干扰。
- 若业务已用扩散或 Flow Matching 做序列建模，可参考 x1-parameterization 直接预测目标 item 表示，推理时用少量 Euler 步（文中 10 步）即可，训练目标只用 L_rec + L_CFM，计算和显存显著低于扩散模型。
- 用户对内容静态/动态成分的偏好存在异质性；可引入一个基于用户行为序列的 intent gate 动态加权静态与动态上下文，作为条件注入生成过程，提升个性化。
- 在物品侧交互稀疏的场景下，把多模态内容因子作为生成式过程的结构化条件，比单纯作为附加特征更有效；尤其适合冷启动或长尾内容推荐。
Self-OPD：无教师的流匹配模型在线策略蒸馏
🧭 流匹配模型对齐 · 无教师自蒸馏
Tsinghua University · Zhejiang University · Alibaba Group
提出无需任务专属教师的在线策略蒸馏框架，将学生自探索转为逐步监督，超越现有 RL 与 OPD 方法
📌 工作参考价值（4 点）
- 无教师自蒸馏思想可迁移到生成式推荐或 LLM 对齐：业务中训练任务专属教师模型成本高，可借鉴 Self-OPD 的分支自探索机制，让学生模型通过自身多步采样获得优势信号，减少对复杂教师网络的依赖。
- 多目标奖励融合技巧：在电商搜索/推荐中常需同时优化点击、转化、多样性等指标，Self-OPD 在 reward 层面融合归一化分数而非在梯度层面直接加权，能缓解目标冲突，可在多目标 RL 或 LLM 微调中尝试。
- 分支探索 + 优势加权更新：生成式推荐或文案生成场景中，可使用类似“确定性基线 + 随机分支”的方式产生多样化候选，通过奖励对比计算优势，再用 pull-push 目标引导模型，可能提升生成结果的 reward 对齐效率。
- 工程实现上注意 SDE 候选与方差归一化：该方法引入 SDE 分支和方差归一化来稳定训练，对于训练不稳定或高方差的 RL 任务有借鉴意义，但需注意计算开销翻倍。
GameWAM：视频游戏世界-动作模型
🧭 视频游戏世界-动作模型
Fudan University · LIGHTSPEED · Independent Researcher · Tsinghua Shenzhen International Graduate School
首个面向原生闭环游戏与GUI控制的世界-动作模型，联合生成未来视觉与键鼠动作，支持长程重规划
📌 工作参考价值（4 点）
- 「并行视觉 + 动作生成 + block-causal conditioning」可作为多模态 Agent 联合建模世界状态与下一步决策的架构参考，尤其适用于需要同时预测环境变化和行为的搜索/推荐仿真环境。
- 「mode 预测 + mode-specific 分布 + 连续动作归一化」可迁移到多任务 Agent 或生成式推荐中处理异构行为（如点击、加购、搜索词），先预测行为类型再用对应分布生成，减少异质输出的冲突。
- 「block-cycle control」类似模型预测控制：预测多步但只执行短前缀，然后基于新观测重规划，可借鉴到实时推荐策略调整；通过分层历史上下文保持长期一致性，对会话级推荐有参考价值。
- LASI 发现低频率成分主导生成输出，提示生成式动作/序列模型要监控随机源的低频成分，可通过谱约束或低通滤波增强可控性。
流匹配偏好优化中的流形漂移：奖励黑客的一个根因
🧭 流匹配偏好优化 · 奖励黑客
Westlake University · Zhejiang University · Kling Team, Kuaishou Technology
提出 ThermoDPO 及加权变体，用偏好样本锚定缓解流匹配偏好优化中的流形漂移与奖励黑客
📌 工作参考价值（3 点）
- 在生成式推荐、广告文案/商品图生成中若用 DPO/RLHF 做偏好对齐，需监控生成结果是否偏离原始数据流形（例如用重建误差或密度估计），否则 reward 提升但真实质量和多样性可能下降，即 reward hacking。
- ThermoDPO 的“偏好样本锚定 + 温度控制”思路可迁移：增加 winner-side anchor 项，等价于在 rejection sampling fine-tuning 与 DPO 之间插值，能控制偏离程度；温度低时信号减弱，可改用加权变体强化高分样本梯度。
- 如果业务中有 flow matching 生成（商品图、创意素材），偏好更新会通过法向位移把终端样本推出预训练支持集，建议加入流形距离正则或重建代理项，保持生成内容的自然度和可编辑性。
EmoWorld：面向可控情感视频生成的解耦情感场
🧭 可控情感视频生成 · 解耦情感场
The Hong Kong University of Science and Technology (Guangzhou) · The Hong Kong University of Science and Technology
将情感因素解耦为氛围、语义线索与时间进程，在冻结视频扩散变换器中实现精细化情感控制
📌 工作参考价值（4 点）
- 冻结大模型 + 轻量控制向量：抽取 layer-wise affect directions 并注入隐藏状态，不改动生成器参数。类似思路可复用到电商文案/广告图生成，快速调节情感基调（温馨、紧迫、高端）而不重训模型。
- 因素解耦独立调节：VAS（氛围）、SAS（语义线索）、TAS（时间过渡）分模块控制，可借鉴到生成式商品推荐中，分别控制产品卖点、场景氛围、促销节奏的生成。
- 可重用线索库：准备阶段构建 reusable cue library，推理时按需组合。适用于批量生成多风格素材的场景，如节日大促自动换肤、多套广告创意快速迭代。
- 时序情感弧线控制：TAS 通过插值残差场实现情感平滑过渡，可启发电商直播话术或短视频脚本的情感递进设计，增强内容感染力。
任务条件流匹配：多语言文本嵌入的自适应平衡训练
🧭 多语言嵌入任务自适应训练范式
LINGO Research Group, Indian Institute of Technology Gandhinagar
提出任务条件流匹配，对翻译任务用流匹配，其他任务用匹配目标，结合教师引导与课程学习，多语言嵌入达 SOTA
📌 工作参考价值（4 点）
- 多任务嵌入微调避免冲突：在处理翻译、检索、分类等混合任务时，可借鉴 TCFM 对不同任务家族采用不同的训练目标，例如翻译用流匹配（适合连续对齐），检索/分类仍用对比学习/交叉熵，避免单一目标造成性能跷跷板。
- 教师引导与课程学习稳定适应：通过冻结原始模型做教师，加蒸馏损失保持旧知识，再配合三阶段课程（先教师引导，再逐步引入新任务），可有效防止灾难性遗忘，适用于业务中持续更新多语言嵌入模型的场景。
- 多语言搜索/商品检索：若业务涉及跨语言商品搜索、query 理解，可借鉴 TCFM 对平行语料（翻译对）使用流匹配直接对齐表示，提升多语言 embedding 的一致性，而不损伤其他任务指标。
- 工程实现参考：流匹配模块轻量，可与对比学习头并存，通过 task-conditioned 开关选择路径；课程学习的分阶段训练策略可直接嵌入现有 ML pipeline，无需大幅改动架构。
音乐共创智能体的层次化自监督世界模型
🧭 层次化自监督世界模型 · 音乐生成
Department of Chemistry & Physics, Belmont University
层次化自监督表征使音乐理解与生成解耦，小模型结合流匹配实现实时可交互的共创建议
📌 工作参考价值（4 点）
- 层次化自监督表征学习可用于序列推荐：粗粒度层级对应长期兴趣（如主题、品类偏好），细粒度层级捕捉短期具体意图（如品牌、价格敏感度），JEPA 的平移等变目标可增强时序泛化，适合电商用户行为建模。
- RAE + 流匹配的轻量生成框架：可将物品 Semantic ID 经 PCA 压缩后作为条件，用流匹配生成推荐序列，层级条件丢弃技巧直接控制推荐结果的多样性与相关性平衡，无需额外采样器。
- 小模型（2.55M）CPU 推理 2.8s 的工程启示：对边缘设备或低延迟推荐 Agent 友好，可考虑用层次化浅层 Swin 编码器替代 Transformer 以压缩推理成本。
- 和弦监督头提升无监督调性检测的现象类比：在推荐中，少量有监督辅助任务（如类目预测）能显著增强无属性标签的冷启动物品表征，值得设计多任务头共享主干。
AURORA-LM：连续潜在扩散语言模型的自动编码统一表示
🧭 连续潜在扩散语言模型 ★ 深度解读
PRLab, Nanjing University · S-Lab, Nanyang Technological University · Imperial College London
解耦表示与生成，用高容量可解码连续潜在空间实现高质量文本扩散
📌 工作参考价值（4 点）
- 解耦表示与生成：在电商推荐/搜索中可训练一个连续潜在编码器（如物品描述、查询意图），冻结后单独优化扩散生成模型，降低耦合，灵活调优。
- 高容量潜在保留信息：使用高维连续潜在向量表示商品或查询，利用低秩噪声输入瓶颈（如 \(D_b=128\)）减少扩散模型计算，同时保留全宽解码质量，适合平衡效果与效率。
- 噪声分配校准：根据潜在维度调整训练时的噪声水平分布，对高维潜在侧重高噪声样本，改善生成多样性，可用于推荐文本生成或搜索词推荐中控制多样性-质量权衡。
- 自轨迹一致性：在扩散推理时通过相邻步预测一致性正则化，显著提升少步（如 16 步）生成质量，降低线上推理延迟，利于实时生成场景。
逃离欧氏空洞：面向序列推荐的流形信息流匹配
🧭 生成式推荐 · 流形校正与流匹配 ★ 深度解读
Jilin University · City University of Hong Kong
指出连续生成推荐中的欧氏空洞问题，提出训练时利用共现图锚点校正路径中间态几何的 MIRAGE 框架
📌 工作参考价值（4 点）
- 在生成式顺序推荐中，中间表征的语义空白(Euclidean void)导致生成性能下降，可通过训练时引入 item 共现图定义的邻居锚点进行路径正则化，重组织 embedding 空间
- 关键 trick：硬/软对齐锚点拉近插值态与邻居项，用时间调制 w(t)=4t(1-t) 仅在路径内部施加约束，不污染源分布和目标嵌入
- 训练时引入图结构，推理时完全图无关（zero graph overhead），可实现一步生成（one-step），效率高且精度好，适合在线服务
- 长尾物品因训练稀疏，其 embedding 几何不稳健，利用共现图邻居支持可显著提升长尾表现而不牺牲头部，值得在电商推荐中尝试
MeanFlowNFT：面向平均速度生成器的前向强化学习
🧭 平均速度生成器的RL对齐
Tencent Hunyuan · The Hong Kong University of Science and Technology
构建诱导瞬时速度预测器，使MeanFlow能用前向RL优化奖励，实现快速少步生成且性能超越多步模型
📌 工作参考价值（4 点）
- 若业务采用基于流匹配的生成式检索（如生成Semantic ID），可利用诱导预测器技巧将前向RL直接用于平均速度模型，避免反向轨迹计算，实现快速对齐。
- 少步生成（如一步或四步）能大幅降低推理延迟，适合在线推荐系统，同时RL微调可显著提升生成质量。
- 恒等式桥接平均与瞬时速度的思路可推广至其他需要粗粒度预测但细粒度优化的场景，例如多步推理与一步决策的对齐。
- 严格策略改进保证为在线学习提供了安全部署的理论基础，可借鉴用于推荐模型的持续优化。
NormGuard：保留奖励的流匹配RL训练范数约束
🧭 流匹配RL训练的范数正则化
The Hong Kong University of Science and Technology · Kuaishou Technology · University of Chinese Academy of Sciences
RL微调会导致流模型速度范数膨胀损害质量，提出训练时hinge惩罚有效抑制并保持奖励
📌 工作参考价值（4 点）
- 在电商/推荐场景使用生成式模型（如流匹配生成item embedding或序列）进行RL微调时，可借鉴 NormGuard 监控并约束输出速度范数，防止过度偏离参考模型导致质量崩塌。
- 推理时归一化无效的结论提示：对于推荐系统的RL策略优化，单纯在推理阶段调整输出分布（如温度缩放）不足，需在训练时嵌入正则项。
- hinge 惩罚设计简洁，可与任何 velocity-local base loss 加性组合，易于迁移到现有 RL 训练管线中（例如 DPO、NFT 的推荐版本）。
- 范数膨胀作为质量退化的早期信号，可用于训练过程中实时监测，辅助自动早停或触发约束。
用判别器引导RL修正流匹配：奖励已在数据中
🧭 生成式模型 · 判别器引导RL
FAIR at Meta · Columbia University · Mila – Québec AI Institute · McGill University · Université de Montréal
在预训练表示空间训练判别器，以其logit为奖励进行KL正则化RL，无需人类偏好即可大幅提升生成质量
📌 工作参考价值（4 点）
- 生成式推荐的质量后处理：可将类似思路用于提升生成式推荐模型（如生成item语义ID）的样本质量：利用预训练的用户/物品表示空间训练判别器，以判别器logit为奖励，通过KL正则化RL微调模型，无需人工偏好标注。
- 离线奖励构建：在推荐Agent或策略优化中，可以用判别器估计生成样本与真实数据的对数似然比，作为保真度奖励，避免昂贵的人类偏好收集，尤其适用于冷启动场景。
- 与偏好优化的协同：DRL后训练得到的模型能作为更好的初始点，再结合少量偏好反馈进行多目标RL，可获得更优的保真度-偏好帕累托前沿，可直接套用到推荐系统的多目标对齐（如新颖性、相关性）中。
- 表示空间选择：效仿其使用预训练表示空间（并非原始像素）作为判别器输入，推荐系统中可选用预训练的通用协同过滤嵌入或CLIP多模态空间，使奖励更聚焦语义相关性而非表面统计。
AudioX-Turbo：统一高效的多模态任意转音频生成框架
🧭 多模态音频生成 · 扩散模型蒸馏
The Hong Kong University of Science and Technology · Tsinghua University · Noiz AI · Independent Researcher
通过蒸馏实现统一多模态任意转音频生成，仅4步采样即超越多步基线，速度提升约25倍
📌 工作参考价值（4 点）
- 少步蒸馏方案可迁移：所采用的分布匹配蒸馏（DMD）适配流匹配框架，通过判别器提升少步生成质量，这一思路可直接应用于推荐系统中扩散模型的加速（如物品嵌入生成、语义ID去噪），在保持质量的同时大幅降低推理成本。
- 多模态自适应融合模块值得参考：针对文本、视频、音频等多种条件信号设计的融合机制，可启发电商多模态推荐或Agent中多源输入的对齐与融合设计，提升条件控制的灵活性。
- 数据构建流程可复用：两阶段收集与标注的大规模数据集IF-caps-Pro（约920万样本）构建方法，为构建多模态训练数据提供了工程范式，尤其适用于需要对齐文本与其它模态的场景（如商品文案与图片/视频的配对数据）。
- 判别器在蒸馏中的应用：扩散模型蒸馏中引入扩散基判别器对抗训练，这一技巧可尝试用于生成式推荐中少步采样质量的保真，例如在序列推荐或对话式推荐中加速候选项生成。
UniSteer：文本引导的激活空间流匹配实现通用LLM控制
🧭 LLM激活导向控制
ShanghaiTech University
用文本条件统一控制LLM行为的激活流匹配框架，支持细粒度概念和多约束组合。
📌 工作参考价值（4 点）
- Agent 行为风格控制：在电商多智能体对话系统中，可利用 UniSteer 的文本条件流匹配对单个 Agent 的回复风格（如亲切客服、专业导购）进行细粒度激活干预，而无需微调模型。
- 推荐理由多样性生成：将“个性化”“幽默”“极简”等文本条件注入激活空间，可引导 LLM 在生成推荐理由时呈现不同风格，提升内容吸引力，无需为每种风格训练独立控制模块。
- 多约束指令遵循：当业务需要同时满足合规性、品牌调性、敏感词规避等多个约束时，UniSteer 的组合式条件能力可一次性应用多条文本规则，比顺序推理或多次干预更高效。
- 激活空间分类用于质量筛选：利用重构能量进行分类的方式，可作为轻量级线上过滤器，对 LLM 生成的候选文案或对话回复进行快速一致性或真实度评分，降低人工审核成本。
概率守恒流形引导：自适应流形引导方法AdaMaG
🧭 扩散模型引导 · 概率守恒
University of Bristol · KAIST
提出零推理成本的AdaMaG，通过散度与分数平行项衰减，在流扩散生成中保持概率守恒，解决CFG强引导下的饱和与伪影。
📌 工作参考价值（4 点）
- 扩散生成式推荐/内容生成的引导优化：若使用扩散模型生成电商文案或创意，强条件引导常导致失真，可直接用AdaMaG替换CFG组合公式，不增加推理耗时，保持生成质量与条件符合度。
- 引导问题的理论分析框架：基于连续性方程分解的散度项和分数平行项，可迁移分析文本扩散模型中引导过强的崩塌现象，帮助设计衰减策略。
- 时间依赖调度即插即用：AdaMaG的时间衰减调度是独立于模型的、无需重训练的启发式规则，可在现有流匹配/扩散管道中直接嵌入，适合快速落地验证。
- 可控生成与真实度平衡：强约束场景（如节日大促风格控制）下，可利用分数平行项衰减控制去饱和程度，稳定生成质量。
PhyWorld：通过流匹配与DPO后训练提升视频生成物理忠实度
🧭 视频生成世界模型后训练
Northeastern University · University of Georgia · Tulane University · EmbodyX
二阶段后训练（流匹配微调 + DPO）让视频生成模型产出物理更合理的时序延续
📌 工作参考价值（4 点）
- 两阶段后训练流程可复用：先流匹配微调保时序一致性，再用DPO对齐偏好，这种组合可迁移到推荐系统的商品视频生成，例如改善动态展示的连贯性和物理合理性。
- 偏好对构建思路：通过仿真引擎生成物理正确/违背的视频对，可为其他领域提供人工标注之外的偏好数据构造方法，例如用商品3D模型渲染符合物理规律的交互视频。
- 细粒度评估基准设计：分物理定律打分的评估方案可用于生成式推荐中检验生成内容的属性控制，如光照、运动是否符合预期。
- 业务可借鉴点有限：整体面向物理AI仿真，与电商/Agent直接关联较弱，主要学术贡献在于世界模型后训练。
尾部退火：面向重尾流匹配的软对数变换
🧭 Flow Matching · 重尾训练技巧
CMAP, École Polytechnique, Institut Polytechnique de Paris
用坐标级软对数变换与Hill诊断，让标准流匹配零架构修改即可生成重尾数据且零发散
📌 工作参考价值（4 点）
- 电商用户行为数据（点击量、购买金额等）常呈现重尾，Log-FM 无需修改现有流匹配架构即可生成高质量重尾样本，用于数据增强或仿真
- 自适应 Hill 诊断自动识别每个特征的重尾性并决定是否变换，省去人工判断，可集成到自动化数据 pipeline
- 方法即插即用：训练前对重尾特征施加 soft-log 变换，生成后指数化还原，计算开销极低，适合大规模线上数据
- 在极端分位数（如 CVaR₉₉）上表现优异且零严重发散，对风险敏感的电商场景（库存压力测试、欺诈检测模拟）有直接应用价值
PRISM：用于扩散文本图像超分的先验校正与不确定性结构建模
🧭 文本图像超分辨率 · 扩散模型
通过流匹配先验校正和不确定性感知残差编码，实现单步扩散的文本图像超分辨率
📌 工作参考价值（3 点）
- 扩散模型中利用流匹配对隐空间先验进行校正的思路，可迁移到序列生成任务（如用户行为序列还原），通过构建高低质量隐变量对学习修正映射，提升生成可靠性。
- 不确定性引导的残差学习可用于多模态特征融合，对置信度低的模态特征进行抑制，避免噪声扩散，适合电商场景中不完整商品描述等。
- 单步扩散的加速技巧（如蒸馏、流匹配一步生成）可应用于实时推荐系统中的内容生成（如标题、摘要），降低推理延迟。